\documentclass[paper=a4, fontsize=11pt]{scrartcl} % A4 paper and 11pt font size

\usepackage[T1]{fontenc} % Use 8-bit encoding that has 256 glyphs
\usepackage{fourier} % Use the Adobe Utopia font for the document - comment this line to return to the LaTeX default
\usepackage[english]{babel} % English language/hyphenation
\usepackage{amsmath,amsfonts,amsthm} % Math packages
\usepackage[UTF8]{ctex}
\usepackage{lipsum} % Used for inserting dummy 'Lorem ipsum' text into the template
\usepackage{color}
\usepackage{sectsty} % Allows customizing section commands
\allsectionsfont{\centering \normalfont\scshape} % Make all sections centered, the default font and small caps

\usepackage{fancyhdr} % Custom headers and footers
\pagestyle{fancyplain} % Makes all pages in the document conform to the custom headers and footers
\fancyhead{} % No page header - if you want one, create it in the same way as the footers below
\fancyfoot[L]{} % Empty left footer
\fancyfoot[C]{} % Empty center footer
\fancyfoot[R]{\thepage} % Page numbering for right footer
\renewcommand{\headrulewidth}{0pt} % Remove header underlines
\renewcommand{\footrulewidth}{0pt} % Remove footer underlines
\setlength{\headheight}{13.6pt} % Customize the height of the header

\numberwithin{equation}{section} % Number equations within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)
\numberwithin{figure}{section} % Number figures within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)
\numberwithin{table}{section} % Number tables within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)

\setlength\parindent{0pt} % Removes all indentation from paragraphs - comment this line for an assignment with lots of text

%----------------------------------------------------------------------------------------
%	TITLE SECTION
%----------------------------------------------------------------------------------------

\newcommand{\horrule}[1]{\rule{\linewidth}{#1}} % Create horizontal rule command with 1 argument of height

\title{
\normalfont \normalsize
\textsc{中国科学院大学   计算机与控制学院} \\ [25pt] % Your university, school and/or department name(s)
\horrule{0.5pt} \\[0.4cm] % Thin top horizontal rule
\huge 随机过程第五次作业 \\ % The assignment title
\horrule{2pt} \\[0.5cm] % Thick bottom horizontal rule
}
\author{黎吉国} % Your name

\date{\normalsize Sep 25,2016}

\begin{document}

\maketitle % Print the title

\newpage
\section{Gauss 分布及其联合分布}
已知随机变量$X$和$Y$的联合概率密度为
\[  \rho_{XY}(x,y)=\frac{1}{2\pi}\exp{\{ -\frac{x^2+y^2}{2} \}}+\frac{1}{2\pi}e^{-\pi^2}g(x)g(y), -\infty<x<+\infty,-\infty<y<+\infty \]
其中
\[g(x)=\left
\begin{cases}
  \cos{x} &\mbox |x|<\pi\\
  0 &\mbox |x|\ge \pi
\end{cases}
\]
\begin{enumerate}
  \item 求边缘分布$\rho_X(x)$和$\rho_Y(y)$.
  \item 证明$X,Y$不相关但是不是统计独立。
\end{enumerate}
\textbf{基础知识：}
\begin{itemize}
\item 已知联合分布为$f_{XY}(x,y)$，则边缘分布为$f_X(x)=\int_{-\infty}^{+\infty}f_{XY}(x,y)dy$.
\item $E(XY)=0$，则$X,Y$不相关。
\item $f_{XY}(x,y)=f_X(x)f_Y(y)$，则$X,Y$统计独立。
\item 如果高斯过程$X,Y$的联合分布也是高斯过程，则$X,Y$独立与$X,Y$不相关等价。
\end{itemize}
\textbf{Solution:}
\begin{enumerate}
  \item 根据边缘分布的定义，易得
  \begin{align*}
    \rho_X(x)&=\int_{-\infty}^{+\infty}\rho_{XY}(x,y)dy\\
    &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}\exp{\{ -\frac{x^2+y^2}{2} \}}dy + \frac{1}{2\pi}e^{-\pi^2}g(x)\int_{-\pi}^{\pi}\cos{y}dy\\
    &=\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}
  \end{align*}
  同理可得
  \[ \rho_Y(y)=\frac{1}{\sqrt{2\pi}}e^{-\frac{y^2}{2}} \]
  可知$X,Y$都是Gauss分布，但是他们的联合分布不是Gauss分布。
  \item 由(1)中结果可知$E(X)=E(Y)0,D(X)=D(Y)=1$，其相关为
  \begin{align*}
    r=E(XY)&=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xy\rho_{XY}(x,y)dxdy\\
    &=\frac{1}{2\pi}\int_{-\infty}^{+\infty}xe^{-\frac{x^2}{2}}dx\int_{-\infty}^{+\infty}ye^{-\frac{y^2}{2}}dy+\frac{1}{2\pi}e^{-x^2}\int_{-\pi}{\pi}x\cos{x}dx\int_{-\pi}^{\pi}y\cos{y}dy\\
    &=0
  \end{align*}
  则$X,Y$不相关。但是$\rho_{XY}(x,y)\ne \rho_X(x)\rho_Y(y)$，可知两者不统计独立。
\end{enumerate}
\newpage
\section{高斯过程通过线性系统}
已知随机变量$X$的均值矢量为$m_X$，下方差矩阵为$\Lamda_X$，定义随机变量$Y$为
\[ Y=G^TX\]
试证对于任意使$E(Y^2)<\infty$的非零矢量$G$，$Y$均为高斯分布。\\
\textbf{基础知识：}
\begin{enumerate}
  \item 特征函数:$\Phi_X(\omega)=E(\exp{(j \omega^T x)})=\int_R\exp{(j\omega^Tx)}f_X(x)dx$.\\
  每一个密度函数都有一个对应的特征函数相对应。
  \item $N(\mu,\Sigma)$的特征函数为$\Phi(\omega)=\frac{1}{|\Sigma|^{\frac{1}{2}}(2\pi)^{\frac{n}{2}}}\int_R \exp{(j\omega^T x-\frac{(x-\mu)^T \Sigma^{-1}(x-\mu)}{2})}dx
  =\exp{(j\omega^T\mu-\frac{\omega^T\Sigma\omega}{2})}$
\end{enumerate}
\textbf{Solution:}\\
假如$Y$的特征函数是一个形如$\Phi(\omega)=\exp{(j\omega^T\mu-\frac{\omega^T\Sigma\omega}{2})}$的函数，则可知$Y$是一个高斯过程。\\
\begin{align*}
 \phi_Y(\omega)&=E(\exp{(j\omega^TY)})\\
 &=E(\exp{(j\omega^TAX)})\\
 &=E(\exp{(j(A^T\omega)^T Y)})\\
  let\ \omega'&=A\omega\\
 \Phi_Y(\omega')&=E(\exp{(j\omega'^T Y)})\\
 &= \exp{(j\omega'^T\mu-\frac{1}{2}\omega'^T\Sigma^{-1}\omega')}\\
 \phi_Y(\omega)&= \exp{(j\omega^T(A\mu)-\frac{1}{2}\omega^T(A\Sigma^{-1}A^T)\omega)}
\end{align*}
  易知$N(A\mu,A\Sigma A^T)$的特征函数为上式，又有特征函数与密度函数一一对应，所以$Y~N(A\mu,A\Sigma A^T)$。

  \newpage
  \section{随机变量的函数的分布}
  $X,Y$是统计独立，零均值的高斯分布，方差为$\sigma ^2$，求$R=\sqrt{X^2+Y^2}$的概率密度$f_R(r)$.\\
  \textbf{Solution:}\\
  先计算$R$的分布函数。\\
\begin{align*}
  F_R(r) &= P(R\le r)=P(\sqrt{X^2+Y^2}\le r)\\
  &= {\int\int}_{\sqrt{X^2+Y^2}\le r}\rho(x,y)dxdy\\
  & let\ \frac{|x|}{r}=\sin{\theta},then \ \frac{|y|}{r}=\cos{\theta}\\
  F_R(r) &= \int_0^{2\pi}\int_0^r \frac{1}{2\pi\sigma^2}\exp{(-\frac{r^2}{2\sigma^2})}drd\theta\\
  &=\int_0^r \frac{r}{\theta^2}\exp{(-\frac{r}{2\theta^2})}dr
\end{align*}
相应的概率密度函数为：
\[
\rho_R(r)=F'_R(r)=
\begin{cases}
  \frac{r}{\theta^2}\exp{(-\frac{r}{2\theta^2})} &\mbox r\ge 0\\
  0 &\mbox r<0
\end{cases}
\]

\end{document}
